Dilahirkan di Sungai Kluang, Rengit, Batu Pahat Johor,beliau mendapat pendidikan awal di Sekolah Melayu Sungai Bangan , Mukim Sungai Kluang dan Victorian English Primary School di Singapura. Beliau menduduki peperiksaan Senior Cambridge di Raffles Institute pada tahun 1932.

Beliau melanjutkan pelajaran dalam bidang undang-undang dan disahkan sebagai Barrister dari Middle Temple, London. Beliau kembali ke Singapura pada tahun 1941.

Beliau berkahwin dengan Toh Puan Hajjah Saadiah pada tahun 1944 dan dikurniakan 4 cahayamata.

Tun Sardon juga pernah menjadi presiden bagi Majlis Belia Malaya yang telah diiktiraf secara rasmi pada 9 September 1950 di Pulau Pinang. Tun Sardon berkhidmat dari tahun 1958 - 1961 bagi menggantikan Syed Hashim Abdullah yang berkhidmat dari tahun 1955 - 1957. Beliau digantikan oleh Syed Kamaruddin Syed Bahaldin yang berkhidmat dari tahun 1964 - 1965.